กูลงเกิดที่เมืองอ็องกูแลม (Angoulême) ประเทศฝรั่งเศส ในครอบครัวที่มีฐานะดี มีบิดาชื่ออ็องรี กูลง ซึ่งเป็นผู้ตรวจการสวนหลวงในเมืองมงเปอลีเย มารดาของเขาชื่อแคทเทอรีน บาเช ซึ่งมาจากครอบครัวค้าขนสัตว์

ขณะที่กูลงยังเยาว์วัย ครอบครัวของกูลงได้ย้ายไปยังกรุงปารีส ต่อมากูลงได้เข้าเรียนในวิทยาลัยมาซาแร็ง (Mazarin College) อันมีชื่อเสียง เขาได้เรียนวิชาคณิตศาสตร์กับปีแยร์ ชาร์ล มอนีเย (Pierre Charles Monnier) จนในที่สุดกูลงก็หลงใหลวิชาคณิตศาสตร์ ครั้นอายุได้ 21 ปี กูลงจึงกลับไปพักอาศัยกับบิดาและทำงานในวิทยาลัยในเมืองมงเปอลีเย สองปีให้หลัง เขาจึงตัดสินใจกลับกรุงปารีสและสอบเข้าโรงเรียนทหารที่เมืองเมซีแยร์ (Mézières)

ครั้นปี พ.ศ. 2304 กูลงก็สำเร็จการศึกษาและได้เข้าร่วมภารกิจสร้างป้อมบูร์บง (Fort Bourbon) ที่มาร์ตีนิก คราวที่เกิดสงครามเจ็ดปี เขาใช้ชีวิตที่นั่นแปดปีเพื่อควบคุมงานจนติดไข้ป่า ระหว่างนั้น เขาได้ทดลองว่าด้วยความทนทานของปูนก่อสร้างและโครงสร้างค้ำยัน ด้วยความอุตสาหะต่อมาเขาได้ยศเป็นนายพัน จากนั้นกูลงจึงเดินทางกลับกรุงปารีส แล้วทำงานที่เมืองลารอแชล ริมชายฝั่งมหาสมุทรแอตแลนติก ณ ที่นั่นเขาได้ค้นพบกฎกำลังสองผกผันของประจุ ทำนองเดียวกับกฎแรงดึงดูดระหว่างมวลของนิวตัน

ต่อมา ครั้นกูลงอายุได้ 45 ปี เขาจึงกลับมายังกรุงปารีส และได้รับตำแหน่งเป็นแอ็งต็องด็องเดโซเซฟงแตน (intendant des eaux et fontaines) หรือ "ผู้ตรวจการทางน้ำและน้ำพุ" จากนั้นไม่นานเขาก็เกษียณตัวเองไปอาศัยในบ้านเล็ก ๆ ที่เมืองบลัว (Blois) ต่อมาไม่นานรัฐบาลปฏิวัติก็เรียกตัวเขาไปร่วมประชุมบัญญัติหน่วยวัด ซึ่งในเวลาต่อมาได้เป็นรากฐานของระบบหน่วยระหว่างชาติ ไม่นานนักหลังจากนั้นเขาก็ถึงแก่กรรม

ผลงานของเขานอกเหนือจากกฎของกูลงแล้ว ยังมีผลงานการออกแบบผนังที่ป้อมบูร์บงซึ่งยังคงมาจนถึงปัจจุบัน